Author SHA1 Message Date
xhgit a1627075ee Merge pull request 'feat(ai): 净化层空隙填补——镜头之间不留黑场' (#19) from feat/gap-compaction into main 2026-11-14 12:13:56 +00:00
xhgit 452e38e9f7 feat(ai): 净化层空隙填补——镜头之间不留黑场
实测 V3 成片逐帧 QC:规划了 12 个镜头、净化层拦截 4 个垃圾
镜头后,剩余镜头保持原位置,时间轴出现 [8-21] 和 [29-37]
两段黑场(8 帧抽 4 帧黑屏)。

净化层在重叠平移之后新增空隙填补:视频轨按顺序向左压实,
任何镜头之间出现空隙即前移(新增/旧片段同样处理,自动补
update 操作)。新增空隙填补回归测试。
2026-11-14 20:13:35 +08:00
xhgit 07f7c85b4a Merge pull request 'fix(ai): 过滤黑屏警告卡与 OP/ED 区域;add 的源时间范围必须在已分析片段内' (#18) from fix/op-ed-junk-filter into main 2026-11-14 12:08:18 +00:00
xhgit 3e73b46005 fix(ai): 过滤黑屏警告卡与 OP/ED 区域;add 的源时间范围必须在已分析片段内
实测 V2 成片前半段:全黑帧、演职员表叠加的片头画面、黑屏警告
提示卡——模型从采样数据里挑到了这些高分垃圾段。

修改:
1. 规划数据过滤黑屏/警告/提示卡/敏感说明等描述(JUNK_CARD)
2. 长素材(>5 分钟)排除前 110 秒 OP 区与最后 120 秒 ED 区,
   短片不受影响
3. 提示词明确:in/out 必须取自片段列表中的 start/end
4. 净化层强制:素材已有分析数据时,add 的 in/out 必须与已分析
   片段相交,否则忽略该操作(防模型编造源时间范围)
5. 新增 OP/ED 区域过滤与范围约束测试
2026-11-14 20:07:11 +08:00
xhgit c7c963ceaa Merge pull request 'fix(ai): 重叠平移挤开旧片段时补生成 update 操作' (#17) from fix/shift-old-clips into main 2026-11-14 10:37:33 +00:00
xhgit c92a807c87 fix(ai): 重叠平移挤开旧片段时补生成 update 操作
实测:新建片段插入旧时间轴间隙、把旧片段挤开时,净化层只在
模拟里移动了旧片段,没有生成对应 update 操作——模拟通过校验、
实际应用时旧片段仍在原位,applyOperations 报「视频片段重叠」。
现在挤开旧片段时自动补一条 update 操作,模拟与实装一致。
新增回归测试(旧片段被挤开必须生成 update)。
2026-11-14 18:36:41 +08:00
xhgit 2b8cc45023 Merge pull request 'fix(ai): 新建模式下规划数据不再携带旧时间轴' (#16) from fix/fresh-no-old-timeline into main 2026-11-14 10:02:40 +00:00
4 changed files with 69 additions and 4 deletions

No files matched your search

+20 -2
View File
@@ -93,7 +93,11 @@ export function sanitizeOperations(p,operations){
else if(m.type==='image'){clip.in=0;clip.out=Math.min(clampValue(raw.out,'out')??Math.min(5,60),60);}
else{clip.in=Math.min(clampValue(raw.in,'in')??0,Math.max(0,m.duration-.1));clip.out=Math.min(clampValue(raw.out,'out')??m.duration,m.duration);}
if(!(clip.out>clip.in+.05))return note('忽略 add:出点必须大于入点');
if(track!=='subtitle'){const key=clip.mediaId+'|'+Math.round(clip.in*10)+'|'+Math.round(clip.out*10);if(seenRange.has(key))return note('忽略 add:与现有片段重复使用同一源片段');seenRange.add(key);}
if(track!=='subtitle'){
const scored=(m.analysis?.segments||[]).filter(s=>s.score!=null);
if(scored.length&&!scored.some(s=>clip.in<s.end+.5&&clip.out>s.start-.5))return note('忽略 add:源时间范围不在已分析片段内');
const key=clip.mediaId+'|'+Math.round(clip.in*10)+'|'+Math.round(clip.out*10);if(seenRange.has(key))return note('忽略 add:与现有片段重复使用同一源片段');seenRange.add(key);}
if(raw.text!==undefined)clip.text=cleanText(raw.text);
for(const k of ['fade','brightness','contrast','saturation','fontSize']){const v=clampValue(raw[k],k);if(v!==undefined)clip[k]=v;}
if(raw.color!==undefined){const col=cleanColor(raw.color);if(col)clip.color=col;}
@@ -140,11 +144,25 @@ export function sanitizeOperations(p,operations){
if(vids[i].start<end-.02){
const at=Math.round(end*100)/100;
const add=addBySim.get(vids[i].id);if(add)add.clip.start=at;
else{const upd=updById.get(vids[i].id);if(upd)upd.changes.start=at;}
else{const upd=updById.get(vids[i].id);if(upd)upd.changes.start=at;
else{const entry={type:'update',id:vids[i].id,changes:{start:at}};ops.push(entry);updById.set(vids[i].id,entry);}}
vids[i].start=at;
note('视频片段重叠,已自动后移至 '+at.toFixed(1)+' 秒');
}
}
// 空隙填补:把视频轨向左压实,镜头之间不留黑场
for(let i=1;i<vids.length;i++){
const prevEnd=vids[i-1].start+duration(vids[i-1]);
const gap=vids[i].start-prevEnd;
if(gap>0.02){
const at=Math.round(prevEnd*100)/100;
const add=addBySim.get(vids[i].id);if(add)add.clip.start=at;
else{const upd=updById.get(vids[i].id);if(upd)upd.changes.start=at;
else{const entry={type:'update',id:vids[i].id,changes:{start:at}};ops.push(entry);updById.set(vids[i].id,entry);}}
vids[i].start=at;
note('填补空隙,片段前移至 '+at.toFixed(1)+' 秒');
}
}
try{validateProject({...p,clips:[...sim.values()]});}catch(e){throw Error('AI 操作校验未通过:'+e.message+';'+notes.slice(0,3).join(';'));}
return {operations:ops,notes};
}
+6 -2
View File
@@ -86,12 +86,16 @@ export async function visionAnalyze(c,media,analysis,signal,progress){
// 避免超出本地模型上下文导致报错;明确选材规则,减少"乱选素材"。
const PLACEHOLDER=/尚未|等待|采样窗口|时间采样|语义或动作/;
const TITLE_CARD=/标题画面|演职员|职员表|片头|片尾|字幕卡|制作人员/;
const JUNK_CARD=/警告|黑屏|黑底|纯黑|全黑|提示卡|敏感|注意事项/;
// 动画剧集 OP/ED 区域:前 110 秒与最后 120 秒通常为主题曲/片尾/预告,不适合混剪取镜。
// 仅对长素材(>5 分钟,即完整剧集)生效,短片不受影响。
const OP_ZONE=110,ED_ZONE=120,LONG_MEDIA=300;
const SEG_CAP=60,PER_MEDIA_CAP=8,DESC_MAX=90;
const round2=n=>Math.round(n*100)/100;
function buildProjectData(p,budget,fresh){
const media=p.media.map(m=>{
const seen=new Set();
const all=(m.analysis?.segments||[]).filter(s=>s&&Number.isFinite(s.score)&&s.score!==null&&typeof s.description==='string'&&s.description&&!PLACEHOLDER.test(s.description)&&!TITLE_CARD.test(s.description)&&!seen.has(s.description)&&(seen.add(s.description),true))
const all=(m.analysis?.segments||[]).filter(s=>s&&Number.isFinite(s.score)&&s.score!==null&&typeof s.description==='string'&&s.description&&!PLACEHOLDER.test(s.description)&&!TITLE_CARD.test(s.description)&&!JUNK_CARD.test(s.description)&&(m.duration<=LONG_MEDIA||(s.start>=OP_ZONE&&s.end<=m.duration-ED_ZONE))&&!seen.has(s.description)&&(seen.add(s.description),true))
.map(s=>({start:round2(s.start),end:round2(s.end),score:round2(s.score),description:String(s.description).slice(0,DESC_MAX),...(s.reason?{reason:String(s.reason).slice(0,50)}:{})}))
.sort((a,b)=>b.score-a.score);
return {id:m.id,name:String(m.name||'').slice(0,60),type:m.type,duration:round2(m.duration),...(m.tags&&m.tags.length?{tags:m.tags.slice(0,6)}:{}),segments:all,hint:all.length?'':'未分析,必要时可从全片取用'};
@@ -154,7 +158,7 @@ remove {"type":"remove","id":"已有片段 ID"}。
必须遵守的规则:
1. 只能引用素材列表中的素材 ID,禁止编造;视频/图片放入 video 轨,音频放入 audio 轨,音频素材不能放入 video 轨。
2. 视频/音频的 in≥0 且 out≤素材 duration,且 out>in;图片素材 in=0,out 最长 60 秒。
2. 视频/音频的 in≥0 且 out≤素材 duration,且 out>in;图片素材 in=0,out 最长 60 秒。in/out 必须取自片段列表中该素材片段的 start/end 值,禁止自行编造源时间范围。
3. 视频轨片段不允许重叠;新片段一般接在时间轴末尾(start 等于 timelineDuration),除非用户要求插入特定位置。片段在时间轴上的时长=(out-in)/speed。
4. 素材选择:优先使用 score 高的片段;根据用户主题、关键词与片段的 description、reason、tags 匹配内容;尽量使用多个不同素材,避免同一素材连续堆砌;不要使用与主题明显无关的素材;未分析的素材只作补充。含蓄镜头(背影、牵手、表情特写、物品特写)同样可以表达人物关系,不必要求两人同框或正脸。禁止重复使用同一个源片段(相同素材的相同 in/out 范围只能出现一次)。
5. ${mode}
+30
View File
@@ -64,6 +64,36 @@ test('AI 操作净化:越界数值截断、无效引用忽略、视频轨重
assert.ok(r.notes.length>=5);
const applied=applyOperations(p,r.operations); // 净化后的操作必须能直接通过校验
assert.equal(applied.clips.filter(c=>c.track==='video').length,3);
// 新增片段把旧片段挤开时,必须生成对应的 update 操作(否则模拟与实装不一致)
const p2=newProject('旧片段平移');p2.media=[{id:'v',type:'video',duration:60,name:'v',tags:[]}];
p2.clips=[{id:'o1',mediaId:'v',track:'video',start:0,in:0,out:5,speed:1,volume:1},{id:'o2',mediaId:'v',track:'video',start:8,in:20,out:25,speed:1,volume:1}];
const r2=sanitizeOperations(p2,[{type:'add',clip:{mediaId:'v',track:'video',start:0,in:5,out:15,speed:1}}]);
const shiftUpdate=r2.operations.find(o=>o.type==='update'&&o.id==='o2');
assert.ok(shiftUpdate,'旧片段被挤开时必须生成 update 操作');
assert.equal(shiftUpdate.changes.start,15);
const applied2=applyOperations(p2,r2.operations);
assert.equal(applied2.clips.find(c=>c.id==='o2').start,15);
// 有分析数据的素材:add 的 in/out 必须落在已分析片段内,否则忽略(防模型编造源时间范围)
const p3=newProject('片段范围约束');p3.media=[{id:'v',type:'video',duration:600,name:'v',tags:[],analysis:{segments:[{start:100,end:110,description:'对话场景',score:90},{start:300,end:310,description:'拥抱',score:95}]}}];
const r3=sanitizeOperations(p3,[
{type:'add',clip:{mediaId:'v',track:'video',start:0,in:100,out:110}},
{type:'add',clip:{mediaId:'v',track:'video',start:5,in:200,out:210}}, // 不在已分析片段内,忽略
{type:'add',clip:{mediaId:'v',track:'video',start:10,in:305,out:308}},
]);
assert.equal(r3.operations.length,2);
assert.equal(r3.operations[0].clip.in,100);
assert.equal(r3.operations[1].clip.in,305);
assert.ok(r3.notes.some(n=>n.includes('不在已分析片段内')));
// 空隙填补:镜头之间有黑场时自动向前压实
const p4=newProject('空隙填补');p4.media=[{id:'v',type:'video',duration:600,name:'v',tags:[]}];
p4.clips=[{id:'g1',mediaId:'v',track:'video',start:0,in:0,out:5,speed:1,volume:1},{id:'g2',mediaId:'v',track:'video',start:12,in:30,out:35,speed:1,volume:1}];
const r4=sanitizeOperations(p4,[{type:'add',clip:{mediaId:'v',track:'video',start:5,in:10,out:13,speed:1}}]);
const gapFix=r4.operations.find(o=>o.type==='update'&&o.id==='g2');
assert.ok(gapFix,'空隙应被填补并生成 update');
assert.equal(gapFix.changes.start,8);
const applied4=applyOperations(p4,r4.operations);
const vids4=applied4.clips.filter(c=>c.track==='video').sort((a,b)=>a.start-b.start);
assert.equal(vids4[1].start,vids4[0].start+(vids4[0].out-vids4[0].in));
});
test('按参数组接:只使用已分析素材、按素材轮转保证多样性、忽略未分析素材',()=>{
const p=newProject('组接测试');p.media=[
+13
View File
@@ -39,6 +39,12 @@ test('规划提示词:按评分筛选片段、丢弃占位描述、区分新
{start:10,end:15,description:'尚未进行语义或动作识别',score:null},
{start:20,end:25,description:'城市夜景,车流灯光',score:score-10,reason:'节奏感强'},
]}});
const ep=(id,score)=>({id,name:id,type:'video',duration:1500,tags:[],analysis:{segments:[
{start:60,end:68,description:'黑屏上显示中文警告提示卡',score:97}, // 警告卡应排除
{start:200,end:208,description:'金发少年与少女在室内对话',score:90}, // 正文内容应保留
{start:1480,end:1488,description:'片尾演职员表滚动',score:96}, // ED 区应排除
{start:500,end:508,description:'雪地里两人相拥',score:score},
]}});
const p={settings:{width:1920,height:1080,fps:30},media:[mk('a',90),mk('b',40)],clips:[{id:'c1',mediaId:'a',track:'video',start:0,in:0,out:5,speed:1,volume:1,motion:[{time:0,zoom:1,x:.5,y:.5}],text:'旧字幕'}]};
const fresh=plannerPrompt(p,'制作一个旅行短片',{fresh:true,target:45,style:getStyle('cinematic'),budget:9000});
assert.ok(fresh.includes('用户本次要求'));
@@ -62,6 +68,13 @@ test('规划提示词:按评分筛选片段、丢弃占位描述、区分新
const modifyData=JSON.parse(modify.slice(modify.indexOf('{',modify.indexOf('项目数据'))));
assert.equal(modifyData.clips.length,1);
// 大数据量下仍受预算约束
// OP/ED 区域与警告卡过滤:只保留正片内容
const epP={settings:p.settings,media:[ep('epA',88)],clips:[]};
const epPrompt=plannerPrompt(epP,'剪一个混剪',{fresh:true,budget:9000});
assert.ok(epPrompt.includes('雪地里两人相拥'));
assert.ok(epPrompt.includes('金发少年与少女在室内对话'));
assert.ok(!epPrompt.includes('黑屏上显示中文警告提示卡'),'警告卡必须排除');
assert.ok(!epPrompt.includes('片尾演职员表滚动'),'ED 区必须排除');
const big={settings:p.settings,media:Array.from({length:40},(_,i)=>({id:'m'+i,name:'素材'+i,type:'video',duration:300,tags:['t'],analysis:{segments:Array.from({length:10},(_,j)=>({start:j*30,end:j*30+28,description:'第'+j+'段:这是很长的一段语义描述内容用来填充上下文窗口测试预算裁剪是否生效',score:99-j}))}})),clips:Array.from({length:60},(_,i)=>({id:'c'+i,mediaId:'m0',track:'video',start:i*5,in:0,out:5,speed:1,volume:1}))};
const small=plannerPrompt(big,'重新剪一遍',{fresh:true,budget:3800});
assert.ok(small.length<6500);